Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

мы от них хотим». В самом письме не было ничего особенно спорного, но сам факт его появления означал огромный шаг к признанию идей, долго считавшихся маргинальными. Среди подписавших письмо специалистов по ИИ были Демис Хассабис из DeepMind, а также два исследователя – Илья Суцкевер и Дарио Амодеи[217]. Тегмарк, в восторге от успехов конференции, пошутил: «Возможно, все дело в сочетании солнца и вина»[218]. В конце Маск отвел Тегмарка в отдельную комнату и сообщил, что жертвует его институту 10 миллионов долларов на исследования безопасности ИИ. Через несколько дней он объявил об этом в «Твиттере», сострив: «Все развлекаются с искусственным интеллектом до потери собственного»[219].

Во время перерывов между выступлениями Маск беседовал с Селманом и другими исследователями на террасе с видом на океан. Он высказал свое главное опасение: Google (через свои DeepMind и Google Brain) и Facebook (через свое подразделение ИИ под руководством авторитетного специалиста по ИИ Янна Лекуна, которое обеспечивало работу таких функций, как автоматическое распознавание объектов на фотографиях) полностью доминируют в области ИИ, но при этом у них нет обязательства делиться результатами своих исследований с общественностью.

«Все признавали опасность того, что эти коммерческие модели с закрытым кодом никто не контролирует. Нужен был какой-то противовес», – вспоминал Селман.

Альтман не присутствовал на конференции, но в следующем месяце опубликовал собственное эссе в духе апокалиптических предсказаний, вдохновленное работами Бострома. В нем он рекомендовал книгу «Искусственный интеллект. Этапы. Угрозы. Стратегии» и заявлял: «Развитие машинного сверхразума – вероятно, величайшая угроза дальнейшему существованию человечества». Он разделял мнение Бострома, что сверхразумные машины могут быть одним из наиболее правдоподобных ответов на парадокс Ферми. Вопрос «Где все?», заданный итальянским физиком Энрико Ферми за обедом в Лос-Аламосской национальной лаборатории в 1950 году. Почему мы не видим следов инопланетян, хотя существует множество планет, пригодных для жизни? Альтман предположил: «Биологический разум рано или поздно создает машинный интеллект, который уничтожает биологическую жизнь, а затем по каким-то причинам решает скрыть свое существование»[220]. Решение, по мнению Альтмана, заключалось в регулировании ИИ. «Правительство США и все другие правительства должны контролировать разработку сверхразума, – писал он в следующем эссе. – В идеальном мире регулирование замедлило бы прогресс злоумышленников и ускорило бы работу хороших парней». Лишь в конце второго эссе он коснулся возможных плюсов новой технологии, отдав дань трансгуманистической мечте о бессмертии, лежащей в основе идеи общего искусственного интеллекта: «Он мог бы решить множество серьезных проблем человечества – но это не произойдет само собой. Другая потенциальная выгода в том, что машинный интеллект поможет нам понять, как загрузить сознание в компьютер, и мы сможем жить вечно»[221].

За помощь в подготовке эссе Альтман особо поблагодарил Дарио Амодеи – исследователя ИИ, который тогда работал в китайской компании Baidu вместе с Эндрю Ыном, бывшим наставником Альтмана из Стэнфордской лаборатории искусственного интеллекта.

Альтман и Маск начали встречаться за ужином каждую среду, когда Маск приезжал в район залива Сан-Франциско во время еженедельных визитов в свои компании. Они были знакомы уже несколько лет, с тех пор как партнер Y Combinator Джефф Ралстон представил их друг другу и организовал для Альтмана экскурсию по фабрике SpaceX в Лос-Анджелесе. «Он подробно рассказывал о производстве каждой детали ракеты, но больше всего запомнилось выражение абсолютной уверенности на его лице, когда он говорил об отправке больших ракет на Марс. Я ушел с мыслью: “Так вот как выглядит настоящая убежденность”», – писал Альтман спустя несколько лет[222].

Их разговоры в 2015 году в основном вращались вокруг личных страхов. Боб Зауэрберг, который в то время тесно сотрудничал с Альтманом по Reddit, вспоминает свое изумление, когда услышал рассказы Альтмана об этих ужинах с Маском: «Мы с Илоном обсуждали конец света. Определили, что есть только два безопасных места – Биг-Сур и Новая Зеландия. У меня есть убежище здесь, у него – там. Мы собираемся все обустроить и продублировать все системы. Мы понимаем, что ИИ – это реальность. Возможно, он опасен – но при этом грандиозен и важен. Нам следует обеспечить свою безопасность и сделать что-то полезное в этой ситуации». (Проект Starlink Маска представлен в Новой Зеландии, но, вероятно, Альтман говорил о соратнике Маска по «мафии PayPal» Питере Тиле, у которого есть владения в этой стране.)

В том же месяце, когда вышло эссе Альтмана о необходимости регулирования ИИ, он предложил Маску вместе составить открытое письмо правительству с аналогичным призывом. Маск согласился, и они начали работать над черновиками письма, которое увидело свет позже в 2015 году. Слухи о готовящемся обращении разошлись еще до публикации, и Демис Хассабис решил выяснить у Маска напрямую, правда ли это. Маск ответил: «При правильном подходе регулирование может даже ускорить развитие ИИ в долгосрочной перспективе. Без уверенности общества в наличии контроля мы рискуем столкнуться с ситуацией, когда ИИ причинит серьезный вред, – и тогда исследования просто запретят как угрозу общественной безопасности»[223]. Судя по документам, предоставленным адвокатами Маска, через пять дней после этого разговора DeepMind объявил о создании совета по этике ИИ и пригласил его войти в состав. Первое заседание, которое прошло в офисе SpaceX по приглашению Маска, убедило его: совет был лишь попыткой затянуть любые разговоры о регулировании. «Илон пришел к выводу, что совет – полная туфта, – рассказал биографу Уолтеру Айзексону глава аппарата Маска Сэм Теллер. – Ребята из Google не собираются всерьез заниматься безопасностью ИИ или как-то ограничивать свою власть»[224].

После этого Маск начал устраивать ужины с друзьями вроде Питера Тиля и Рида Хоффмана, пытаясь найти способ противостоять мощи Google и обезопасить развитие ИИ. В мае он встретился с президентом Обамой, чтобы обсудить необходимость регулирования. «Обама все понял, – рассказывал Маск Айзексону. – Но я осознал, что проблема не настолько приоритетна, чтобы он предпринял реальные действия»[225].

В том же месяце Альтман написал Маску: «Я много размышлял, можно ли остановить человечество в разработке ИИ. Думаю, ответ – почти наверняка нет. Раз это неизбежно, было бы хорошо, чтобы прорыв совершил кто-то, помимо Google». Альтман предложил Y Combinator запустить «Манхэттенский проект для ИИ» – тот самый термин, который Хассабис использовал, продвигая DeepMind в 2010 году. «Мы могли бы организовать все так, чтобы технология принадлежала человечеству через некоммерческую структуру, но работающие над ней люди получали бы вознаграждение, как в стартапе, если все получится. Разумеется, мы будем соблюдать и активно поддерживать любое регулирование». «Стоит обсудить», – ответил Маск.

В июне Альтман направил Маску детальный план новой лаборатории ИИ: «Наша миссия – создать первый общий искусственный интеллект и использовать его для расширения возможностей каждого человека. То есть реализовать